Variational Inference

Variational Inference는 Bayeisan Inference에서 적용되는 테크닉으로 개인적으로는 상당히 공부하기 어려웠던 것 중 하나여서 시간을 내어 정리해 보려고 한다. 우리가 흔히 알고 있는 Expectation-Maximization algorithm이 바로 Variation Inference의 특수한 경우라고 볼 수 있다. 흔히 알고 있다고는 하지만 이것도 이해하는데 상당히 많은 배경지식이 필요하기 때문에 먼저 정리해 보도록 하겠다.

Expectation-Maximization Algorithm (EM 알고리즘)

Variational Inference